수학적 기대값은 $E(X)$ 또는 $\mu_X$로 표기되며, 임의 변수에 대한 중심 경향의 기본 측도입니다. 반복 실험을 통해 얻어지는 '장기 평균' 값을 의미합니다. 물리적으로는 확률 분포의 질량 중심이며, 모든 가능한 결과값에 각각의 확률을 가중치로 더한 값으로 계산됩니다.
정식 정의
이산형 무작위 변수의 경우, 확률 질량 함수(PMF)를 기반으로 기대값을 정의합니다:
정의 3.1.1
임의의 이산형 무작위 변수 $X$가 있다고 하자. 기대값은 다음과 같습니다:
$$E(X) = \sum_{x \in R^1} x P(X = x) = \sum_{x \in R^1} x p_X(x)$$
정의 3.1.2
만약 $X$가 서로 다른 값 $x_1, x_2, \dots$를 확률 $p_i$로 가진다면:
$$E(X) = \sum_i x_i p_i$$
무심한 통계학자의 법칙(LOTUS)
변환된 변수 $g(X)$의 기대값을 구하기 위해, 우선 $g(X)$의 밀도를 도출할 필요는 없습니다.
정리 3.1.1 (LOTUS)
임의의 함수 $g$에 대해, $g(X)$의 기대값은 함수 값들이 원래 확률에 따라 가중치를 부여받아 합해진 것입니다:
$E(g(X)) = \sum_{x} g(x) P(X=x)$
핵심 성질
- 선형성(정리 3.1.2): $E(aX + bY) = aE(X) + bE(Y)$. 이 성질은 $X$와 $Y$가 종속일 때에도 성립합니다!
- 단조성(정리 3.1.4): 모든 결과 $s$에 대해 $X(s) \le Y(s)$라면, $E(X) \le E(Y)$입니다.
- 독립성(정리 3.1.3): 만약 $X$와 $Y$가 독립적이라면, $E(XY) = E(X)E(Y)$입니다.
예제 3.1.6: 지표 함수
지표 함수 $I_A$에 대해, $A$가 발생하면 $X=1$, 그렇지 않으면 $X=0$일 때:
$E(I_A) = (1)P(A) + (0)P(A^c) = P(A)$